Năm 1939, ông bị giặc Pháp bắt, giam ở nhà lao Quảng Ngãi, Ban Mê Thuột. Năm 1944 đưa đi an trí ở "căng" giam tù chính trị Ba Tơ, tại đây ông tham gia thành lập chi bộ Đảng (Tỉnh ủy lâm thời) trong tù.
Tháng 3 năm 1945, khi Nhật đảo chính Pháp, ông tham gia thành lập Uỷ ban Vận động cứu quốc tỉnh Quảng Ngãi, tham gia lãnh đạo Khởi nghĩa Ba Tơ, rồi khởi nghĩa giành chính quyền tỉnh Quảng Ngãi. Ông được bầu làm Bí thư Tỉnh ủy, Ủy viên thường trực Ủy ban kháng chiến tỉnh Quảng Ngãi.
Năm 1946, là xứ uỷ viên dự khuyết Xứ uỷ Trung Bộ, phụ trách ba tỉnh Bình Định, Phú Yên, Khánh Hoà. Sau đó ông gia nhập Quân đội. Cuối 1946 Trung ương điều ra Huế tham gia Ủy viên Dân - Chính - Đảng Thừa Thiên Huế, Chính trị ủy viên Trung đoàn Trần Cao Vân (e101)
Những năm 1947 - 1952: Chính uỷ, rồi Tư lệnh Mặt trận Bình-Trị-Thiên, Phó Bí thư Liên khu 4.
1953-1954: chính ủy đầu tiên Đại đoàn 325, Chính ủy mặt trận Trung Lào, Tư lệnh kiêm Chính ủy Mặt trận Hạ Lào - Đông bắc Campuchia.
